package com.shujia.MapReduce;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.net.URI;
import java.net.URISyntaxException;
import java.util.ArrayList;
import java.util.Hashtable;

public class Demo04MapJoin {
    // Map端
    public static class MyMapper extends Mapper<LongWritable, Text, Text, Text> {
        // 初始化再使用
        Hashtable<String, String> stuKV = new Hashtable<>();

        // 每个MapTask启动的时候会执行一次
        // 用于加载小表的数据
        @Override
        protected void setup(Mapper<LongWritable, Text, Text, Text>.Context context) throws IOException{
            // 获取小表的数据 并缓存到MapTask的内存当中
            // 通过context可以获取广播的小表的 路径
            URI[] cacheFiles = context.getCacheFiles();
            // 获取小表的路径
            String path = cacheFiles[0].toString();
            // 使用原生的HDFS JAVA API 加载小表的数据
            FileSystem fs = FileSystem.get(context.getConfiguration());
            FSDataInputStream fsDataInputStream = fs.open(new Path(path));
            BufferedReader br = new BufferedReader(new InputStreamReader(fsDataInputStream));
            String line;
            // 为了方便做关联 需要选择合适的数据结构
            // HashTable
            while ((line = br.readLine()) != null) {
                String id = line.split(",")[0];
                // 以id作为key，line 作为value 存入HashTable
                stuKV.put(id, line);
            }
        }

        @Override
        // 处理大表的数据
        protected void map(LongWritable key, Text value, Mapper<LongWritable, Text, Text, Text>.Context context) throws IOException, InterruptedException {
            String[] splits = value.toString().split(",");
            String id = splits[0];
            String subjectId = splits[1];
            String subjectScore = splits[2];
            // 通过id去HashTable中获取学生信息数据，以此实现关联
            String stuInfo = stuKV.getOrDefault(id, "");
            // 避免未关联上导致索引越界的情况出现
            if (!"".equals(stuInfo)) {
                String[] stuSplits = stuInfo.split(",");
                if (stuSplits.length >= 5) {
                    String name = stuSplits[1];
                    String clazz = stuSplits[4];
                    context.write(new Text(id), new Text(name + "," + clazz + "," + subjectId + "," + subjectScore));
                }
            }

        }
    }


    // Driver程序，主要负责配置及提交任务
    public static void main(String[] args) throws IOException, InterruptedException, ClassNotFoundException, URISyntaxException {
        Configuration conf = new Configuration();
        conf.set("fs.defaultFS", "hdfs://master:9000");
        // 指定分隔符为 逗号
        conf.set("mapred.textoutputformat.separator", ",");
        // 创建一个MapReduce的Job
        Job job = Job.getInstance(conf);
        // 配置任务
        // 设置任务运行的名字
        job.setJobName("Demo04MapJoin");
        // 设置任务运行哪一个类
        job.setJarByClass(Demo04MapJoin.class);

        // 配置Map端
        // 指定Map任务运行哪一个类
        job.setMapperClass(MyMapper.class);
        // 配置Map端输出的Key的类型
        job.setMapOutputKeyClass(Text.class);
        // 配置Map端输出的Value的类型
        job.setMapOutputValueClass(Text.class);

        // 不需要Reduce任务，不设置默认会启动一个Reduce任务
        job.setNumReduceTasks(0);

        // 配置输入输出路径
        FileInputFormat.addInputPath(job, new Path("/data/score/input"));

        // 把文件看成一张表，广播小表
        job.addCacheFile(new URI("hdfs://master:9000/data/stu/input/students.txt"));

        Path path = new Path("/data/mapJoin/output");
        FileSystem fs = FileSystem.get(conf);
        // 判断输出路径是否存在，存在即删除
        if (fs.exists(path)) {
            fs.delete(path, true);
        }
        // 输出路径已存在会报错
        FileOutputFormat.setOutputPath(job, path);


        // 等待任务运行完成
        job.waitForCompletion(true);

    }
    /*
        hadoop jar Hadoop-1.0.jar com.shujia.MapReduce.Demo04MapJoin
     */
}
